Комисията проучва финансовия риск от ИИ, докато финализира мащабния нов закон

Прекомерното потребление на роботи може да докара до пристрастия, суматоха или просто неприятни препоръки, тревожат се чиновници.

Европейската комисия е разтревожена от въздействието на потреблението на изкуствен интелект (AI) в банковото дело, застраховането и пазарите на скъпи бумаги, съгласно консултация, оповестена през днешния ден (18 юни). 

Европейски Съюз преди малко одобри изчерпателен Закон за изкуствения разсъдък, трансформирайки се в първата пълномощия в света, която законодателства, с цел да направи нововъзникващите технологии безвредни и недискриминационни. 

Но длъжностните лица в този момент питат дали има потребност от повече насоки, с цел да могат разпоредбите да се вместят във финансите – област, която към този момент е обект на строги регулаторни условия и където цената на грешката може да бъде висока.

>

„ Законът за изкуствения разсъдък на Европейски Съюз и съществуващите правила за финансовия бранш обезпечават солидна основа, позволяваща софтуерни нововъведения “, сподели в изказване Мейрид Макгинес, комисарят на Европейски Съюз за финансовите услуги, призовавайки хората да споделят своите визии по отношение на „ бързо изменяща се и все по-важна област на софтуерен прогрес “.

Новият софтуерен закон на Европейски Съюз, който би трябвало да се ползва от май 2025 година, ще се ползва в цялата стопанска система, само че значи автоматизирани принадлежности, употребявани в браншове с по-висок риск, като опазването на здравето, правоприлагане и набиране на личен състав за спомагателен мониторинг.

Кредитни инспекции

Чувствителни финансови приложения като оценка на кредитоспособността на някого също са маркирани като евентуално нуждаещи се от по-подробни закони или насоки.

Това няма да е първият път, когато чиновници на Брюксел демонстрират, че са внимателни по отношение на това по какъв начин технологията се употребява във финансовия бранш.  

През 2022 година Европейски Съюз контракти нови правила, известни като Закон за цифровата оперативна резистентност, DORA, поради опасенията, че потреблението от банките на дребна шепа нерегулирани снабдители на облачни калкулации може да докара до пробиви на данни или пазарна суматоха. 

По същия метод Комисията наподобява обезпокоена от вероятността за „ стадно “ – когато голям брой финансисти разчитат на едни и същи ИТ системи, с цел да вземат бизнес решения. 

Произтичащите пресилени ценови съмнения или централизация на пазара могат да съставляват риск за финансовите пазари – или роботите може просто да получат отговорите си неправилно, се споделя в документа за консултация. 

Глупости?

„ ИИ с общо предопределение... от време на време може да създаде „ халюцинации “, т.е. безсмислени или неточни отговори “, се споделя в него.

Това е феномен прочут на всеки, който се е опитал да получи пряк отговор от ChatGPT – само че също по този начин би основал проблеми за робо-финансистите, като се има поради тяхното законово обвързване да дават верни препоръки в най-хубавия интерес на своите клиенти. 

ИИ би могъл да има удобни резултати, сподели Комисията – да вземем за пример забелязване на хитра комерсиална активност, която може да сочи към пазарна корист. Но длъжностните лица също наподобяват обезпокоени от неприятно образувани набори от данни за ИИ, водещи до необятно публикувана дискриминация.  

През 201 година най-висшият съд на Европейски Съюз съобщи, че е нелегално да се таксуват повече мъже за автомобилни застраховки. Но логаритъм за ценообразуване може да значи, че хора от избран пол или раса в последна сметка заплащат повече, без човек да може да изясни за какво.